Profesor sa Oksforda upozorava: AI ide ka katastrofi, moguća 3 scenarija
Trka tehnoloških kompanija da što brže izbace nove AI sisteme na tržište mogla bi dovesti do katastrofe koja bi uzdrmala poverenje celog sveta u veštačku inteligenciju. Na to upozorava profesor Majkl Vuldridž sa Univerziteta Oksford, jedan od najpoznatijih stručnjaka u ovoj oblasti, koji kaže da je scenario sličan istorijskoj tragediji cepelina Hindenburg danas "veoma realan rizik".
Ogromni komercijalni pritisci guraju kompanije da lansiraju AI proizvode pre nego što su dovoljno testirani i potpuno bezbedni. "Imamo tehnologiju koja je izuzetno obećavajuća, ali nije testirana onoliko rigorozno koliko bi trebalo, a komercijalni pritisak iza nje je ogroman", upozorava Vuldridž.
Realna opasnost od velikog incidenta
Katastrofa Hindenburga 1937. godine praktično je uništila interesovanje za vazdušne brodove. Vuldridž smatra da bi sličan dramatičan događaj mogao da zaustavi ili ozbiljno uspori razvoj AI tehnologije širom sveta. Pošto je veštačka inteligencija već ugrađena u brojne sisteme, posledice bi mogle pogoditi gotovo svaki sektor društva.
Stručnjak navodi nekoliko scenarija koji bi mogli izazvati takozvani "Hindenburg trenutak" za AI. Među njima su smrtonosna softverska greška u autonomnim vozilima, veliki AI hakerski napad koji bi prizemljio globalni avio-saobraćaj ili kolaps velike finansijske institucije izazvan pogrešnim potezom automatizovanog sistema. "To su vrlo realni scenariji. Postoji mnogo načina na koje bi AI mogao javno i dramatično da pogreši", kaže Vuldridž.
AI koji zvuči previše sigurno
On naglašava da savremeni AI sistemi nisu ni približno savršeni kako mnogi veruju. Današnji modeli funkcionišu tako što predviđaju sledeću reč na osnovu verovatnoće, zbog čega su izuzetno dobri u nekim zadacima, ali veoma nepouzdani u drugim. Problem je i to što AI često daje samouverene odgovore čak i kada greši i nema svest o sopstvenim ograničenjima.
"Kompanije žele da AI izgleda što više kao čovek, ali to je opasan put. Moramo shvatiti da su to samo alati", upozorava profesor.
Profit ispred bezbednosti
Iako tehnološke kompanije tvrde da rade na unapređenju bezbednosti, Vuldridž upozorava da je ključni problem brzina razvoja. U trci za profit, kaže on, postoji opasnost da bezbednost ne prati tempo inovacija. Upravo zato, zaključuje, svet mora biti spreman na mogućnost velikog AI incidenta koji bi mogao promeniti način na koji društvo posmatra veštačku inteligenciju.
Evo kako je o AI profesor govorio u jednom od ranijih intervjua
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
Bonus video:
Snimak koji otkriva jednostavnu istinu